Za czasów poprzedzających go papieży, Celestyna I i Sykstusa III, Leon wspierał ich w sprawach urzędowych i doktrynalnych, zbierając w ten sposób cenne doświadczenie w rządzeniu Rzymem. Jako archidiakon, doskonały mówca i katecheta zaskarbił sobie również sympatię ludu rzymskiego, co nie było bez znaczenia, gdyż jego przedstawiciele brali wówczas udział w wyborze biskupa Rzymu. Obrany nim jednogłośnie w 440 roku, wykazywał się stanowczością i silną niechęcią do wszelkich odstępstw od ortodoksyjnej linii  Kościoła. Występował przeciw wciąż żywym i popularnym odłamom chrześcijaństwa – manicheizmowi, monofizytyzmowi  czy  pelagianizmowi, jednocześnie broniąc swej niezależnej pozycji wobec cesarza chylącego się ku upadkowi imperium zachodniego. Przejawem tego było wywalczenie sobie w 445 roku prawa do sprawowania jurysdykcji nad wszystkimi biskupami cesarstwa zachodniego. Kolejnym krokiem miało być uzyskanie prymatu Rzymu nad innymi biskupstwami imperium wschodniego. Leon I z przekonaniem powoływał się przy tym na męczeńską śmierć – właśnie w Rzymie – świętych Piotra i Pawła, niejako legitymizującą pierwszeństwo i cesarski tytuł pontifex maximus, przynależny biskupowi Wiecznego Miasta. Na soborze w Chalcedonie w 451 roku Leon, za pośrednictwem swoich legatów, jednoznacznie wyłożył swoje stanowisko, wzbudzając zdecydowany sprzeciw innych biskupów: Jerozolimy, Aleksandrii, Antiochii i Konstantynopola. Na soborze pojawiło się pięciuset biskupów, głównie z imperium wschodniego. Ogłoszono obowiązującą doktrynę wiary, nie zatwierdzono jednak przewodniej roli Rzymu, na co legaci rzymscy Leona zareagowali złożeniem protestu. 

Owiana legendą cudowna obrona Rzymu przed rządnymi łupów Hunami, na czele z bezwzględnym Attylą, miała miejsce w 452 roku, ale nie u bram miasta, ale na przedpolach dalekiej Mantui. Kulisy tego poselstwa nie do końca są znane, a wypłata wysokiego haraczu, który uratował miasto od barbarzyńskiego najazdu przypisać należy zapewne delegacji ówczesnego cesarza imperium rzymskiego Walentyniana III. Trzy lata później efekt jego poselstwa nie był już tak spektakularny. Co prawda udało się zapobiec gwałtom i rozlewowi krwi, ale tym razem wódz Wandali Genzeryk całkowicie splądrował opustoszałe miasto. Niemniej Leon zasłużenie zdobył sobie przydomek wybawcy Rzymu i miłość jego mieszkańców. Od tego czasu to już nie cesarz, ale właśnie papież stanowić będzie opokę dla rzymian, od 476 roku zresztą jedyną, wtedy to bowiem do abdykacji zmuszony zostanie ostatni cesarz imperium zachodniorzymskiego – Romulus Augustulus.

Ziemskie szczątki Leona I złożone zostały początkowo w przedsionku bazyliki konstantyńskiej, potem w jej środku. Dzisiaj w nowej bazylice (San Pietro in Vaticano) spoczywa w towarzystwie trzech innych papieży Leonów – II, III i IV.

Budowle i obiekty powstałe w Rzymie za pontyfikatu Leona I Wielkiego:

• Kościół San Stefano Protomartire przy dawnej via Latina – obecnie zachowany w ruinie
• Bazylika San Pietro in Vaticano – dekoracja nawy głównej bazyliki konstantyńskiej mozaikami o tematyce staro- i nowotestamentowej (niezachowane)
• Odnowienie bazyliki św. Pawła za Murami (San Paolo fuori le mura) (po uderzeniu pioruna), wykonanie mozaik w tęczy (Głowa Chrystusa pomiędzy 24 starcami apokalipsy niosącymi ku niemu swoje korony oraz przedstawienie świętych Piotra i Pawła) i w nawie bazyliki (fryz ze scenami ze Starego i Nowego Testamentu oraz portrety biskupów Rzymu, od św. Piotra po Leona I), ufundowanych przez cesarzową Gallę Placydię, siostrę cesarza Honoriusza (niezachowane, tylko częściowo autentyczne w tęczy)
• Dekoracja nawy głównej w bazylice św. Jana na Lateranie (San Giovanni in Laterano) (niezachowane)
• Współudział w budowie kościoła San Clemente (dolny kościół)
• Budowa klasztoru koło bazyliki św. Piotra (niezachowany)

Niektóre obrazy i rzeźby upamiętniające Leona I: 

• Pałac Apostolski (apartamenty papieskie) – fresk ukazujący spotkanie papieża z Attylą (Stanza di Eliodoro) – papieżowi towarzyszą unoszący się nad jego głową święci Piotr i Paweł z mieczami w ręku; dzieło Rafaela, 1511
• Malowidło absydy kościoła San Pietro in Vincoli – Cesarzowa Licynia Eudoksja przekazuje kajdany Piotrowe papieżowi Leonowi
• Bazylika San Pietro in Vaticano – marmurowy relief nad grobem papieża, ukazujący spłoszonego wodza Hunów, po tym jak  papież wskazał na swych wyłaniających się zza chmur sprzymierzeńców – uzbrojonych świętych Piotra i Pawła; dzieło Alessandro Algardiego (1646–1653)